Những năm của Def Jam

Trong năm senior của mình, Rubin thành lập Def Jam Records sử dụng máy ghi âm bốn bài của trường học. Ông chuyển sang lập ban nhạc Hose, chịu ảnh hưởng bởi Flipper của San Francisco. Năm 1982, một ca khúc của ban nhạc Hose đã trở thành bản phát hành đầu tiên của Def Jam, một đĩa đơn 45 rpm 7 vinyl trong một túi giấy màu nâu, và không có nhãn.[5] Ban nhạc chơi trong và xung quanh cảnh punk của NYC, đã đi lưu diễn ở Midwest và tại California, và chơi với các ban nhạc cứng cựa như Meat Puppets, Hüsker Dü, Circle Jerks, Butthole Surfers và Minor Threat, trở thành bạn với những người thủ lĩnh và chủ nhân của Dischord Records ông chủ là Ian MacKaye. Ban nhạc đã tan rã vào năm 1984 khi niềm đam mê của Rubin tiến về phía khung cảnh hip hop của NYC.[5]